Learning social norms enhances compatibility in dynamic human-AI coordination
学习社会规范提升动态人机协调兼容性
🧭 Agent · 社会规范量化与协调优化
量化行人交互中的社会规范三原则（结果可预测、价值对齐、优势意识）使LLM协调得分超基线4倍，超人类43%
📌 工作参考价值（4 点）
- 在电商客服、对话推荐agent中显式定义类“可预测性、价值对齐、优势意识”的规范原则，可通过system prompt或RLHF reward塑造行为，提升用户对连贯性与体谅度的体验。
- 通过小规模人类交互实验提取隐式规范的方法，可迁移到推荐系统：设计轻量级问卷或游戏收集用户动态协作偏好，抽取出“响应时机”“主动推荐程度”等维度，用于微调对话策略。
- 闭-loop交互评测框架（人机反复博弈）可复用于搜索/推荐系统的多轮效果评估，取代单轮离线和静态用户模型测试，更能捕捉长期协调性与粘性。
- 优势意识原则（agent意识到自身信息优势时主动引导）可直接用于主动推荐场景：当模型拥有用户历史、库存等全局信息时，应更主动地提供选项并解释理由，而非被动等待查询。